Dalam tahun 1960-an, Musa dilantik menjadi Pemangku Setiausaha Agung UMNO. Beliau masuk Parlimen Malaysia buat pertama kali pada tahun 1969 dan berkhidmat sebagai timbalan menteri untuk suatu tempoh yang singkat. Musa kemudian dipecat daripada UMNO akibat pengingkaran semasa Peristiwa 13 Mei, oleh Tunku Abdul Rahman, Presiden UMNO dan Perdana Menteri ketika itu. Semasa dipecat, beliau mengambil sarjananya di Universiti Sussex. Apabila kembali ke Malaysia pada tahun 1971, beliau diterima semula menyertai UMNO oleh Tun Abdul Razak. Musa dilantik sebagai Timbalan Whip Parlimen untuk parti campuran Parti Perikatan dan dipilih sebagai ahli Majlis Tertinggi UMNO. Beliau juga dipilih sebagai Naib Presiden UMNO pada 1978.[2]

Pada tahun 1981, Musa dipilih menjadi Timbalan Presiden UMNO dan seterusnya sebagai Timbalan Perdana Menteri Malaysia. Sebelum menjawat Timbalan Perdana Menteri Malaysia, dan Menteri Dalam Negeri pada tahun 1981-1986, Musa telah menjawat beberapa jawatan dalam kerajaan seperti Pengerusi FELDA, Timbalan Menteri Perdagangan & Industri, Menteri Perusahaan Utama (1974-1978) dan Menteri Pendidikan (1978-1981).

Peristiwa Memali terjadi pada November 1985 ketika Musa menjadi Timbalan Perdana Menteri Malaysia dan Menteri Keselamatan Dalam Negeri.[3]

Musa meletakkan jawatannya sebagai Timbalan Perdana Menteri pada tahun 1986 disebabkan percanggahan pendapat dengan Perdana Menteri Dr. Mahathir terhadap dasar-dasar negara. Kemudian pada 1987, beliau dicabar oleh Tun Ghafar Baba untuk jawatannya sebagai Timbalan Presiden UMNO dan ditewaskannya.